1
00:00:01,567 --> 00:00:05,868
AI-systemer kender det måske
meget mere om os

2
00:00:06,033 --> 00:00:08,367
end vi ved om det.

3
00:00:08,534 --> 00:00:11,601
Det store spørgsmål er,
er vi klar til at dele

4
00:00:11,767 --> 00:00:14,400
toppen af det evolutionære
totempæl

5
00:00:14,567 --> 00:00:17,466
med noget af vores eget
skabelse, der kan være

6
00:00:17,467 --> 00:00:19,667
overordentlig kraftig?

7
00:00:19,834 --> 00:00:20,868
Wow.

8
00:00:22,100 --> 00:00:23,366
Lad os se det i øjnene.

9
00:00:23,367 --> 00:00:25,566
Der er så mange
regeringens konspirationer,

10
00:00:25,567 --> 00:00:29,166
det kan være svært at sige
hvad der er ægte og hvad der ikke er.

11
00:00:29,167 --> 00:00:30,566
Mit navn er Andrew Bustamante

12
00:00:30,567 --> 00:00:34,100
og jeg er en tidligere
hemmelig CIA-efterretningsofficer.

13
00:00:34,267 --> 00:00:36,901
Og jeg skal til tryktest
den mest sensationelle,

14
00:00:37,067 --> 00:00:40,167
flået-fra-overskrifterne
konspirationsteorier derude

15
00:00:40,334 --> 00:00:42,467
for at hjælpe dig med at adskille fakta
fra fiktion.

16
00:00:57,968 --> 00:01:00,367
Hvad der engang var forankret i
science fiction er nu

17
00:01:00,534 --> 00:01:01,999
det varmeste
dagens buzzword.

18
00:01:02,000 --> 00:01:04,267
- AI.
- AI.

19
00:01:04,434 --> 00:01:05,601
- AI.
- AI.

20
00:01:05,767 --> 00:01:06,800
Kunstig intelligens.

21
00:01:06,801 --> 00:01:08,367
Det sker.
Det sker meget hurtigt.

22
00:01:09,767 --> 00:01:12,701
Det er ikke kun antropisk,
Google og OpenAI.

23
00:01:12,868 --> 00:01:15,300
Det ser ud som om alle virksomheder i
verden er fokuseret på at bruge

24
00:01:15,467 --> 00:01:17,968
denne teknologi til hurtigt
øge innovationen

25
00:01:18,133 --> 00:01:20,868
og fremskynde teknologien
gennembrud for menneskeheden.

26
00:01:21,033 --> 00:01:23,467
Nye kure mod sygdomme,
nye former for energi.

27
00:01:23,634 --> 00:01:25,099
Alle kan være
mere produktive,

28
00:01:25,100 --> 00:01:26,267
tjene flere penge.

29
00:01:28,100 --> 00:01:30,200
Men hvis min erfaring har
lærte mig noget,

30
00:01:30,367 --> 00:01:34,000
det er hver ny teknologi
udgør også en ny trussel.

31
00:01:34,167 --> 00:01:36,566
Dette kan se ægte ud,
men intet af det skete.

32
00:01:36,567 --> 00:01:40,167
Det er AI-genereret
og farligt overbevisende.

33
00:01:40,334 --> 00:01:42,367
Her har vi en helt
sammensat vare.

34
00:01:42,534 --> 00:01:45,667
Er AI allerede vant til
manipulere vores virkelighed kl

35
00:01:45,834 --> 00:01:46,968
en hidtil uset skala?

36
00:01:47,968 --> 00:01:50,367
Jeg mener, se bare hvor virkeligt
alt dette ser ud.

37
00:01:51,501 --> 00:01:53,099
Det er dog falsk.

38
00:01:53,100 --> 00:01:56,766
Min første oplevelse med AI
var i 2007, da jeg var hos CIA.

39
00:01:56,767 --> 00:01:59,867
Og jeg vidste, at teknologien
ville revolutionere verden,

40
00:01:59,868 --> 00:02:03,067
Det havde jeg ikke forventet den dag
ske i 2022.

41
00:02:03,234 --> 00:02:06,100
Breaking news lige nu,
Rusland har angrebet Ukraine.

42
00:02:06,267 --> 00:02:08,067
Russiske styrker invaderede Ukraine

43
00:02:08,234 --> 00:02:10,300
til lands, i luften og til vands
på torsdag.

44
00:02:14,100 --> 00:02:16,400
En måned efter Rusland
invaderede Ukraine,

45
00:02:16,567 --> 00:02:18,367
en video af ukrainsk
Præsident Zelensky

46
00:02:18,534 --> 00:02:20,467
undervise sit folk
at overgive sig

47
00:02:20,634 --> 00:02:22,901
blev faktisk udsendt på
ukrainsk tv.

48
00:02:29,667 --> 00:02:31,099
Men det var slet ikke Zelensky.

49
00:02:31,100 --> 00:02:34,601
Det var en AI-genereret deepfake
som blev skabt af hackere.

50
00:02:34,767 --> 00:02:37,067
Men dengang var det
overbevisende nok til at narre

51
00:02:37,234 --> 00:02:38,999
tv-selskaber i Ukraine.

52
00:02:39,000 --> 00:02:41,767
Siden da har AI's evne til at
producere stadig mere

53
00:02:41,934 --> 00:02:44,067
realistisk udseende medier har
avanceret kl

54
00:02:44,234 --> 00:02:46,000
en hidtil uset rate.

55
00:02:46,167 --> 00:02:49,166
Har jeg nogensinde fortalt dig historien
af den magiske pistacie?

56
00:02:49,167 --> 00:02:52,767
Grænsen mellem virkeligheden
og fiktionen forsvinder.

57
00:02:52,934 --> 00:02:56,167
- Åh!
- Åh, og en stor
højre hånd fra Zuckerberg!

58
00:02:56,334 --> 00:02:59,667
Han er såret!
Han er såret!

59
00:02:59,834 --> 00:03:01,501
Hvert sekund af hver dag,

60
00:03:01,667 --> 00:03:04,901
AI-baserede værktøjer får
bedre og bedre.

61
00:03:05,067 --> 00:03:07,501
Ikke kun ved at skabe
deepfakes, men på praktisk talt

62
00:03:07,667 --> 00:03:10,100
noget, vi engang stolede på
mennesker at gøre.

63
00:03:10,267 --> 00:03:12,067
Uanset om du kan lide det eller ej,
dit liv bliver

64
00:03:12,234 --> 00:03:14,666
påvirket af AI til
i høj grad.

65
00:03:14,667 --> 00:03:17,701
I denne episode tager jeg med
hinsides konspirationsteori

66
00:03:17,868 --> 00:03:20,166
og undersøger evt
kunstig intelligens er

67
00:03:20,167 --> 00:03:23,501
udvikler sig fra potentielt
vores største innovation i

68
00:03:23,667 --> 00:03:26,166
en hidtil uset trussel
til menneskeheden.

69
00:03:26,167 --> 00:03:27,300
Dette er et andet spil nu.

70
00:03:27,467 --> 00:03:29,000
Vi er i en anden liga
her i form

71
00:03:29,167 --> 00:03:30,266
af kapaciteten.

72
00:03:30,267 --> 00:03:33,100
Manipulerer ikke kun medier,
men selve historien.

73
00:03:34,367 --> 00:03:35,999
Jeg taler med
topeksperter,

74
00:03:36,000 --> 00:03:38,801
professorer og udviklere,
og leder mit eget

75
00:03:38,968 --> 00:03:41,366
eksperiment for at undersøge om
kunstig intelligens

76
00:03:41,367 --> 00:03:45,100
vil ændre verden,
eller hvis det allerede har.

77
00:03:45,267 --> 00:03:48,266
Så du tror, at en AI er
vil ændre deres ideer...?

78
00:03:48,267 --> 00:03:50,000
Om 20 eller 30 minutter, absolut.

79
00:03:51,267 --> 00:03:52,566
På godt og ondt,

80
00:03:52,567 --> 00:03:55,667
vil vi være i stand til at kontrollere
hvad kommer der?

81
00:03:55,834 --> 00:03:58,300
Det er der 70 % chance for
alle mennesker døde eller

82
00:03:58,467 --> 00:04:00,501
noget lignende dårligt.
- Hov, hov, du bare--

83
00:04:00,667 --> 00:04:02,099
OK, øh...

84
00:04:02,100 --> 00:04:03,901
Alle mennesker døde?

85
00:04:04,067 --> 00:04:04,968
Korrekt.

86
00:04:19,667 --> 00:04:22,601
Når man tænker på hvor langt
og hurtig AI har udviklet sig

87
00:04:22,767 --> 00:04:24,300
med hensyn til video
og fotografier

88
00:04:24,467 --> 00:04:26,266
på så kort tid,

89
00:04:26,267 --> 00:04:27,701
det er virkelig chokerende.

90
00:04:27,868 --> 00:04:30,300
Og når man tænker videre
om mulighederne for at

91
00:04:30,467 --> 00:04:33,000
denne teknologi kunne være nødt til det
forme den måde, folk ser på

92
00:04:33,167 --> 00:04:35,701
verden,
det begynder at blive skræmmende.

93
00:04:35,868 --> 00:04:38,367
For fuldt ud at forstå det virkelige
potentialet i denne teknologi,

94
00:04:38,534 --> 00:04:39,466
Jeg er nødt til at tale med nogen

95
00:04:39,467 --> 00:04:41,200
der lever og ånder det
hver dag.

96
00:04:46,968 --> 00:04:49,300
Så i dag taler jeg med
Christopher Meerdo,

97
00:04:49,467 --> 00:04:52,567
professor ved universitetet
i det nordlige Texas, der har specialiseret sig

98
00:04:52,734 --> 00:04:54,767
i AI-skabte medier.

99
00:04:54,934 --> 00:04:56,466
Jeg har bedt Chris om at tage
et retsmedicinsk udseende

100
00:04:56,467 --> 00:04:58,367
ved Zelensky deepfake
og vis mig

101
00:04:58,534 --> 00:05:00,167
hvordan denne teknologi udvikler sig.

102
00:05:02,367 --> 00:05:04,467
Dette er et ret tidligt eksempel

103
00:05:04,634 --> 00:05:06,868
af en deepfake
og i det væsentlige bruger

104
00:05:08,000 --> 00:05:09,466
ansigtsgenkendelsesteknologi

105
00:05:09,467 --> 00:05:12,601
at identificere bestemte punkter
i ansigtet.

106
00:05:12,767 --> 00:05:16,167
Dette ser langt fra perfekt ud.
Hvordan var det i stand til at narre folk?

107
00:05:16,334 --> 00:05:18,367
Det blev sprøjtet ind i
en legitim nyhedskilde

108
00:05:18,534 --> 00:05:20,167
for ukrainere.
Da dette dukkede op...

109
00:05:21,267 --> 00:05:24,666
i forbindelse med den nyhed
organisation, ville du starte

110
00:05:24,667 --> 00:05:27,601
at tænke, at der måske er nogle
legitimitet til dette.

111
00:05:27,767 --> 00:05:31,067
Du kan tænke på succesen af
en deepfake i forhold til dem

112
00:05:31,234 --> 00:05:32,466
slags procenter, du ved,

113
00:05:32,467 --> 00:05:35,501
hvor vellykket kan det være
hvis du narrer

114
00:05:35,667 --> 00:05:38,501
75 % af mennesker
mod 10% af mennesker?

115
00:05:38,667 --> 00:05:41,766
Især denne slags nye
verden, hvor vi træder ind

116
00:05:41,767 --> 00:05:45,801
kunstig intelligens er
bliver fuldstændig

117
00:05:45,968 --> 00:05:48,801
ikke kan skelnes fra rigtige billeder.

118
00:05:48,968 --> 00:05:52,100
Hvor meget bedre er deepfakes
nu sammenlignet med dette?

119
00:05:52,267 --> 00:05:53,667
Jeg kan vise dig
et eksempel på det her.

120
00:06:06,000 --> 00:06:08,167
Jeg mangler.
Åh, gud!

121
00:06:09,501 --> 00:06:11,466
Wow.

122
00:06:11,467 --> 00:06:13,167
Jeg har mere hår i ansigtet
end nogen anden

123
00:06:13,334 --> 00:06:14,167
nordkoreansk soldat.

124
00:06:15,968 --> 00:06:18,466
- Det er skørt, mand.
- Det her var en rigtig video.

125
00:06:18,467 --> 00:06:20,400
Vi var i stand til at lave en slags
ansigtsbytte her

126
00:06:20,567 --> 00:06:22,667
og en slags
slippe dig ind i billedet.

127
00:06:22,834 --> 00:06:26,968
Det har man i princippet gjort
en stor matematisk ligning det

128
00:06:27,133 --> 00:06:29,701
forstår, hvad enhver slags
billede kan se ud.

129
00:06:29,868 --> 00:06:32,267
Og når vi bruger modellen,
det arbejder vi faktisk med

130
00:06:32,434 --> 00:06:33,868
numerisk plads her
i centrum.

131
00:06:35,300 --> 00:06:38,467
Og så en gang den matematik
problemet er løst,

132
00:06:38,634 --> 00:06:40,901
vi har denne dekoder her
tager det lidt fra

133
00:06:41,067 --> 00:06:43,099
et numerisk mellemrum og drejer det
tilbage til noget der

134
00:06:43,100 --> 00:06:45,300
du og jeg kan genkende
som et billede.

135
00:06:45,467 --> 00:06:46,901
Wow.

136
00:06:47,067 --> 00:06:50,400
Og det er endnu nemmere i dag
end nogensinde at skabe

137
00:06:50,567 --> 00:06:52,200
en falsk AI-video.

138
00:06:55,701 --> 00:06:57,666
Du kan gå til hjemmesider
og indtast meddelelser

139
00:06:57,667 --> 00:06:59,100
og bare generere dem.

140
00:07:04,367 --> 00:07:08,467
Så dette er en serie af de seneste
virale videoer af ICE-agenter

141
00:07:08,634 --> 00:07:10,501
engagere sig med
den brede offentlighed...

142
00:07:10,667 --> 00:07:12,300
Back up, back up!

143
00:07:12,467 --> 00:07:13,467
Ingen!

144
00:07:13,634 --> 00:07:16,167
Ikke i dag, og ikke
i denne kirke!

145
00:07:16,334 --> 00:07:18,567
... det har været en slags
formidles på forskellige

146
00:07:18,734 --> 00:07:20,167
sociale medieplatforme.

147
00:07:20,334 --> 00:07:22,999
Ved vi lige nu, om disse
er ægte eller falske, eller er det

148
00:07:23,000 --> 00:07:24,000
hvad leder vi efter?

149
00:07:24,167 --> 00:07:25,567
Så jeg vil gerne have dig til at prøve
at gætte.

150
00:07:26,667 --> 00:07:28,100
Det er svært.

151
00:07:29,100 --> 00:07:31,099
Jeg mener, hvis du vil gå tilbage til
den prædikant,

152
00:07:31,100 --> 00:07:32,667
som denne, ikke?

153
00:07:32,834 --> 00:07:34,099
Så dette er
en interessant for mig

154
00:07:34,100 --> 00:07:37,000
fordi det ikke synes
meget troværdigt for mig.

155
00:07:37,167 --> 00:07:39,099
Og måske er dette godt
mulighed for at introducere

156
00:07:39,100 --> 00:07:41,999
ideen om
besynderlighed, ikke?

157
00:07:42,000 --> 00:07:44,867
Situationen ser bare sådan ud
besynderligt fordi,

158
00:07:44,868 --> 00:07:47,067
du ved, det er det
en prædikant, ikke?

159
00:07:47,234 --> 00:07:49,200
Så det er at sige dette er
AI-genereret?

160
00:07:49,367 --> 00:07:50,334
Det er det, ja.

161
00:07:50,501 --> 00:07:52,267
Det er fascinerende
godt gået.

162
00:07:52,434 --> 00:07:53,400
Lad os lave en anden.

163
00:07:55,534 --> 00:07:56,601
Så dette klip...

164
00:07:57,567 --> 00:08:01,501
virkede ægte for mig, fordi
kameraet bevægede sig,

165
00:08:01,667 --> 00:08:04,267
du kan se tommelfingeren slags
foran linsen,

166
00:08:04,434 --> 00:08:07,701
og så i baggrunden,
detaljen i miljøet,

167
00:08:07,868 --> 00:08:10,666
de våde pletter på jorden,
de mennesker, der observerer

168
00:08:10,667 --> 00:08:13,701
denne meget dramatiske begivenhed,
den har det element af kaos.

169
00:08:13,868 --> 00:08:16,400
Og du har helt ret.
Dette er en rigtig video.

170
00:08:16,567 --> 00:08:18,367
Jeg vil gerne vise dig
endnu et eksempel.

171
00:08:18,534 --> 00:08:19,800
Sir, bak op!

172
00:08:19,801 --> 00:08:21,666
Jeg har autoritet på denne blok
ligesom du tror du gør!

173
00:08:21,667 --> 00:08:23,701
Man kan ikke stoppe folk
gaden uden kendelse!

174
00:08:23,868 --> 00:08:25,100
Og jeg fortæller dig lige nu,

175
00:08:25,267 --> 00:08:26,467
føderal eller ej,
det er imod loven.

176
00:08:26,634 --> 00:08:28,267
Jeg er også en lovofficer.
Jeg ved det måske!

177
00:08:28,434 --> 00:08:31,400
Så i dette klip vil jeg vurdere
dette som ægte.

178
00:08:31,567 --> 00:08:33,801
Folkets manerer
uden for kameraet

179
00:08:33,968 --> 00:08:34,999
han taler med, ikke?

180
00:08:35,000 --> 00:08:36,266
Der er nogen væk
til højre.

181
00:08:36,267 --> 00:08:38,868
Det kan du faktisk
se deres håndbevægelse bevæge sig

182
00:08:39,033 --> 00:08:40,467
på linje med lyden.

183
00:08:40,634 --> 00:08:42,200
Hovedårsagen til at jeg er solgt
på dette dog,

184
00:08:42,367 --> 00:08:43,901
er på grund af baggrunden.

185
00:08:44,067 --> 00:08:46,067
Den person, der står der
på hjørnet og venter på en taxa

186
00:08:46,234 --> 00:08:48,266
eller potentielt ser
skænderiet sker.

187
00:08:48,267 --> 00:08:51,501
Og så om et par sekunder,
en anden person går bare

188
00:08:51,667 --> 00:08:54,200
på tværs af gaden ligesom
de forlader en delikatesse eller

189
00:08:54,367 --> 00:08:55,666
en købmand
i baggrunden.

190
00:08:55,667 --> 00:08:58,801
Dette slår mig holistisk
som meget ægte.

191
00:08:58,968 --> 00:09:00,801
Dette er en falsk.

192
00:09:00,968 --> 00:09:03,099
Wow!
Hvad ser du?

193
00:09:03,100 --> 00:09:05,300
Hvordan bestemmer du
forskellen mellem

194
00:09:05,467 --> 00:09:06,868
ægte og falsk i disse?

195
00:09:07,033 --> 00:09:09,367
Nå, en af tingene for mig
her er dette politiplaster.

196
00:09:11,067 --> 00:09:15,266
Og hvis du ser på dette,
der står P-O-I-C-E,

197
00:09:15,267 --> 00:09:18,100
og derefter P-O, og vender så til
volapyk, ikke?

198
00:09:18,267 --> 00:09:19,767
- Huh.
- At se på teksten på et billede

199
00:09:19,934 --> 00:09:22,267
er en rigtig god indikation af
forsøger at skelne

200
00:09:22,434 --> 00:09:24,100
hvis noget
er ægte eller ej.

201
00:09:24,267 --> 00:09:26,601
Hvorfor gør AI
kæmper med tekst?

202
00:09:26,767 --> 00:09:30,366
Hvad mangler fra kunstig
intelligens er de faktisk

203
00:09:30,367 --> 00:09:33,067
forstår ikke helt
skriftsprog.

204
00:09:33,234 --> 00:09:35,901
Det kan lidt omtrentligt
baseret på mønstre fra

205
00:09:36,067 --> 00:09:38,300
de billeder, det var
trænet på.

206
00:09:38,467 --> 00:09:42,067
Så der er evnen til at fortælle
at noget er falsk,

207
00:09:42,234 --> 00:09:45,266
men på samme tid,
den procentdel af

208
00:09:45,267 --> 00:09:47,868
den befolkning, vi er
narre bliver bare højere

209
00:09:48,033 --> 00:09:49,400
og højere og højere, ikke?

210
00:09:49,567 --> 00:09:51,367
Så som jeg lærer dette af
dig lige nu,

211
00:09:52,667 --> 00:09:55,901
Jeg finder ikke megen trøst
fordi CIA lærte mig om

212
00:09:56,067 --> 00:09:59,400
hvordan man orkestrerer og arkitekt
en skjult indflydelseskampagne.

213
00:09:59,567 --> 00:10:01,467
Der var to slags
grundlæggende regler.

214
00:10:01,634 --> 00:10:04,566
Den første regel er, at 90 % af
hvad du lægger derude

215
00:10:04,567 --> 00:10:06,467
kommer til at mislykkes.
Vi skal kysse en masse frøer,

216
00:10:06,634 --> 00:10:08,901
er hvad vi siger,
før du har en prins, ikke?

217
00:10:09,067 --> 00:10:13,267
Så du skaber en masse dårlige,
lav kvalitet, lav kaliber,

218
00:10:13,434 --> 00:10:14,501
falske oplysninger.

219
00:10:14,667 --> 00:10:16,766
Og så når en af dem
virker, omdirigerer du

220
00:10:16,767 --> 00:10:18,867
din næste runde
af ressourcer

221
00:10:18,868 --> 00:10:21,099
ind i den ene allé
det virker.

222
00:10:21,100 --> 00:10:23,501
Med det du viser mig
her har vi en evne til

223
00:10:23,667 --> 00:10:26,501
skabe utroligt meget
information nu.

224
00:10:26,667 --> 00:10:28,567
Dengang havde du
fire tv-kanaler, ikke?

225
00:10:28,734 --> 00:10:31,566
- Ja.
- Og det var en slags ental
kilde, men det havde en slags

226
00:10:31,567 --> 00:10:32,667
myndighed til det.

227
00:10:32,834 --> 00:10:35,167
Det betyder, at folk er
at finde sandheden

228
00:10:35,334 --> 00:10:38,466
kommer ikke længere
fra myndighed.

229
00:10:38,467 --> 00:10:41,701
Sandheden kommer fra
en overflod af kontinuitet.

230
00:10:41,868 --> 00:10:43,467
Hvis du ikke er det
visuelt kendskab,

231
00:10:44,667 --> 00:10:48,000
du er åben for alle slags
af sårbarheder.

232
00:10:48,167 --> 00:10:49,100
Ja.
Jeg vil gerne fremhæve

233
00:10:49,267 --> 00:10:51,100
nogle af
de gode dele af AI.

234
00:10:51,267 --> 00:10:53,767
Der har været et fantastisk billede
modeller, der er udviklet

235
00:10:53,934 --> 00:10:57,566
der kan opdage kræft måde
hurtigere end en læge kan.

236
00:10:57,567 --> 00:11:00,801
En lydmodel, der har været
udviklet til stetoskoper, der

237
00:11:00,968 --> 00:11:04,601
kan opdage hjerteproblemer måde
før en læge kan høre det.

238
00:11:04,767 --> 00:11:06,901
Og så der, du ved,
inden for den slags undergang

239
00:11:07,067 --> 00:11:10,466
og dysterhed, som vi tænker på
med AI er der stadig nogle

240
00:11:10,467 --> 00:11:14,099
positive ting, der kan hjælpe,
øh, en slags almindeligt samfund.

241
00:11:14,100 --> 00:11:15,867
Så jeg er enig med dig.
Vi har alle håb.

242
00:11:15,868 --> 00:11:16,868
Ja.

243
00:11:17,033 --> 00:11:19,300
Men det er interessant for mig
at ordene

244
00:11:19,467 --> 00:11:22,467
som du vælger at bruge
er ikke håbefulde ord først.

245
00:11:23,701 --> 00:11:27,267
Kommer op, hvis AI kan fake
virkelighed på denne overbevisende måde,

246
00:11:27,434 --> 00:11:30,167
hvor stærkt er det
manipulation, når den bruges i

247
00:11:30,334 --> 00:11:31,500
den virkelige verden?

248
00:11:31,501 --> 00:11:35,766
De tog ham fra ingen,
indsatte ham i billeder

249
00:11:35,767 --> 00:11:38,067
og video, der viser, at han var
et aktivt medlem af

250
00:11:38,234 --> 00:11:40,200
det kommunistiske parti.
- En deepfake.

251
00:11:40,367 --> 00:11:41,234
Det er så sindssygt.

252
00:11:42,667 --> 00:11:44,567
Jeg vil trykteste
AI's evne til

253
00:11:44,734 --> 00:11:46,200
påvirke offentligheden.

254
00:11:46,367 --> 00:11:49,300
Den person du talte til
det var faktisk AI.

255
00:11:49,467 --> 00:11:52,100
- Hvad?
- Nå, jeg er forbløffet.

256
00:11:57,667 --> 00:12:00,766
2
Selv under min tid i CIA,
vi kendte evnen

257
00:12:00,767 --> 00:12:04,099
at skabe et billede,
en lydfil eller en video på

258
00:12:04,100 --> 00:12:08,501
et enkelt tastetryk skulle
revolutionere den måde, du kæmper på

259
00:12:08,667 --> 00:12:10,000
for hjerter og sind.

260
00:12:10,701 --> 00:12:14,067
Efter at have set, hvor effektiv AI
er blevet til at generere videoer

261
00:12:14,234 --> 00:12:15,901
det er næsten
udskillelige

262
00:12:16,067 --> 00:12:18,766
fra ægte indhold,
mit næste spørgsmål er,

263
00:12:18,767 --> 00:12:21,467
har det niveau af bedrag
allerede blevet brugt

264
00:12:21,634 --> 00:12:24,200
at forsøge at manipulere resultaterne
på den globale scene?

265
00:12:25,901 --> 00:12:27,000
I dag rådfører jeg mig med

266
00:12:27,167 --> 00:12:29,000
en tidligere skjult
efterretningsofficer

267
00:12:29,167 --> 00:12:31,766
fra det rumænske
Efterretningstjeneste.

268
00:12:31,767 --> 00:12:34,801
Jeg vil gerne lære, hvordan falske billeder
blev brugt til at manipulere mennesker

269
00:12:34,968 --> 00:12:38,300
tidligere for at finde ud af det
hvilken AI billedmanipulation

270
00:12:38,467 --> 00:12:39,501
midler for vores fremtid.

271
00:12:46,601 --> 00:12:51,267
Så jeg graver i
dette spørgsmål om deepfakes

272
00:12:51,434 --> 00:12:54,400
og påvirke kampagner og hvordan
medier kunne vrides ind

273
00:12:54,567 --> 00:12:56,267
fremtiden ved hjælp af AI.

274
00:12:56,434 --> 00:12:58,466
Og det har jeg lyst til at have
samtale, vi skal snakke

275
00:12:58,467 --> 00:13:01,867
om hvordan medierne har været
fordrejet i fortiden.

276
00:13:01,868 --> 00:13:03,968
I Rumænien,
Securitate, som er

277
00:13:04,133 --> 00:13:06,601
den tidligere efterretning
service, de gjorde hvad

278
00:13:06,767 --> 00:13:09,067
vi taler om i dag,
som er manipulerende

279
00:13:09,234 --> 00:13:11,100
ikke kun medier,
men selve historien.

280
00:13:12,467 --> 00:13:15,366
Rumænien blev en satellit
Sovjetunionens stat kl

281
00:13:15,367 --> 00:13:16,667
slutningen af Anden Verdenskrig.

282
00:13:16,834 --> 00:13:20,867
USSR indsatte en kommunist
regering, der er afhængig af Moskva

283
00:13:20,868 --> 00:13:24,567
og etablerede Securitate,
en KGB-lignende efterretningstjeneste

284
00:13:24,734 --> 00:13:28,099
der holdt den rumænske befolkning
på linje med altid tilstedeværende

285
00:13:28,100 --> 00:13:29,467
overvågning og frygt taktik.

286
00:13:31,100 --> 00:13:34,501
Ana voksede op i en post-sovjet
Rumænien, der kæmpede for at

287
00:13:34,667 --> 00:13:36,968
emerge from life behind
the Iron Curtain.

288
00:13:37,133 --> 00:13:40,167
And in 2012, she joined
den rumænske sikkerhedstjeneste

289
00:13:40,334 --> 00:13:42,400
at hjælpe med at bygge videre
and defending

290
00:13:42,567 --> 00:13:44,266
a democratic Romania.

291
00:13:44,267 --> 00:13:47,367
So there was an entire
division i Securitate at

292
00:13:47,534 --> 00:13:51,767
hele deres formål var at
airbrush billeder, tilføje personer,

293
00:13:51,934 --> 00:13:55,266
fjerne folk, ændre ting
der ikke var i overensstemmelse med

294
00:13:55,267 --> 00:13:57,701
the history they wanted
to promote.

295
00:13:57,868 --> 00:14:00,567
So we'll start with
baggrunden for Ceausescu,

296
00:14:00,734 --> 00:14:02,601
som er vores sidste
kommunistisk leder.

297
00:14:02,767 --> 00:14:06,167
Han var en skomagersøn.
Han havde ingen uddannelse.

298
00:14:06,334 --> 00:14:09,266
Han begyndte at gå til alle disse
kommunistiske møder

299
00:14:09,267 --> 00:14:12,067
fordi han følte han endelig
hører til et sted,

300
00:14:12,234 --> 00:14:13,367
men han var ikke rigtig relevant.

301
00:14:14,367 --> 00:14:16,667
Så vi har dette ene billede.
Dette er originalen.

302
00:14:18,100 --> 00:14:22,666
Og nedenfor har vi Ceausescu
og Elena Ceausescu tilstede kl

303
00:14:22,667 --> 00:14:26,099
et møde i 1939.
- Det er en deepfake.

304
00:14:26,100 --> 00:14:27,567
Ja.

305
00:14:27,734 --> 00:14:31,867
De tog ham fra ingen,
indsatte ham i billeder

306
00:14:31,868 --> 00:14:34,100
og videoer, der viser, at han var
et aktivt medlem af

307
00:14:34,267 --> 00:14:38,000
kommunistpartiet og hvordan
han er dedikeret til landet.

308
00:14:38,167 --> 00:14:42,400
Og så når "valgene"
kom, blev han valgt som

309
00:14:42,567 --> 00:14:44,100
denne nations fader.

310
00:14:47,000 --> 00:14:48,300
Det er så sindssygt.

311
00:14:49,801 --> 00:14:52,467
Ingen tænker virkelig på
det faktum, at hvis du ikke ved det

312
00:14:52,634 --> 00:14:54,567
hvad var sandheden i fortiden,

313
00:14:54,734 --> 00:14:56,968
du har ikke noget at
sammenligne nu med.

314
00:14:57,133 --> 00:14:58,999
Og hvem ville endda
stille spørgsmål ved det?

315
00:14:59,000 --> 00:15:02,267
Hvem ville overhovedet gå tilbage for at sige,
"Vent et øjeblik, er der

316
00:15:02,434 --> 00:15:05,801
endda en original?"
- Når man tænker sig om

317
00:15:05,968 --> 00:15:07,367
kunstig intelligens...
- Mm-hmm.

318
00:15:07,534 --> 00:15:09,801
...og den verden vi lever i nu,

319
00:15:09,968 --> 00:15:11,868
hvad er du opmærksom på
til de fleste?

320
00:15:12,868 --> 00:15:17,868
AI tog, hvad vi allerede havde
og gjorde det bedre og hurtigere.

321
00:15:18,033 --> 00:15:20,300
Og nu ved vi det ikke engang
hvad der er ægte længere.

322
00:15:20,467 --> 00:15:24,467
I 2024 f.eks.
da Rumænien havde valg

323
00:15:24,634 --> 00:15:25,566
og skulle være

324
00:15:25,567 --> 00:15:27,300
det nemmeste valg
vi nogensinde har haft,

325
00:15:28,367 --> 00:15:33,767
vi vågnede op til nyheden om dette
fyr, der er ekstremistisk,

326
00:15:33,934 --> 00:15:37,566
som ingen anede
hvem han var.

327
00:15:37,567 --> 00:15:41,167
Denne fyr er
Calin Georgescu, en pro-russer,

328
00:15:41,334 --> 00:15:43,801
ultranationalistisk,
uafhængig kandidat.

329
00:15:43,968 --> 00:15:47,367
Georgescu raket til national
popularitet natten over,

330
00:15:47,534 --> 00:15:50,666
rider på en bølge af støtte
af videoer på sociale medier

331
00:15:50,667 --> 00:15:53,999
med ham, der rider på heste
og dyrke judo, som,

332
00:15:54,000 --> 00:15:57,400
selvfølgelig er
Putins foretrukne kampsport.

333
00:15:57,567 --> 00:16:00,999
Rumænske embedsmænd opdager
som AI-drevne bots udgav

334
00:16:01,000 --> 00:16:03,367
en oversvømmelse af
deepfakes, påtegninger,

335
00:16:03,534 --> 00:16:07,266
likes og kommentarer designet til
manipulere TikToks algoritme

336
00:16:07,267 --> 00:16:09,167
til falsk
puste sin popularitet op.

337
00:16:10,868 --> 00:16:14,400
Og så på grund af hans evner
at få så meget indflydelse

338
00:16:14,567 --> 00:16:17,868
så hurtig, intelligensen
Rumæniens tjeneste vidste det ikke

339
00:16:18,033 --> 00:16:20,501
hvordan...
- Hvordan man stopper ham.

340
00:16:20,667 --> 00:16:24,701
Og vi er det første land i
hele historien om

341
00:16:24,868 --> 00:16:27,801
den europæiske union, der måtte
aflyse valg.

342
00:16:27,968 --> 00:16:29,100
Wow.

343
00:16:31,100 --> 00:16:34,366
Og nu ser det ud til
TikToks kommer fra

344
00:16:34,367 --> 00:16:37,868
denne virksomhed i Afrika
et eller andet sted, og der er

345
00:16:38,033 --> 00:16:39,766
en potentiel finansiering
af russerne.

346
00:16:39,767 --> 00:16:41,067
Så det gør den bestemt
lyder som

347
00:16:42,100 --> 00:16:44,968
en udenlandsk indflydelseskampagne.
- Ja.

348
00:16:45,133 --> 00:16:46,501
Det er så interessant hvordan

349
00:16:47,701 --> 00:16:50,968
der stemmer overens med hvad der ellers har
sket i historien...

350
00:16:51,133 --> 00:16:53,901
- Ja, mm-hmm.
- ...hvor andre ledere
af Rumænien

351
00:16:54,067 --> 00:16:55,434
er blevet oprettet.

352
00:16:57,901 --> 00:17:00,701
Valgindblanding er det ikke
unik for Rumænien.

353
00:17:00,868 --> 00:17:02,167
USA
er blevet målrettet

354
00:17:02,334 --> 00:17:04,501
ved udenlandsk indflydelse
kampagner i årtier.

355
00:17:04,667 --> 00:17:07,999
Men hvad der engang krævede intelligens
service år nu tager

356
00:17:08,000 --> 00:17:11,868
algoritmer dage og blade
nul fingeraftryk.

357
00:17:12,033 --> 00:17:15,267
De sikkerhedsforanstaltninger, vi har stolet på
i årtier for at sikre fair

358
00:17:15,434 --> 00:17:17,999
valg kan ikke længere finde anvendelse.

359
00:17:18,000 --> 00:17:21,767
Så hvad sker der, når AI-værktøjer
bruges ikke kun til at forfalske

360
00:17:21,934 --> 00:17:24,667
virkeligheden, men at ændre hvad
tror folk?

361
00:17:25,701 --> 00:17:29,166
Så jeg har ansat en professor
der studerer, hvordan mennesker interagerer

362
00:17:29,167 --> 00:17:32,801
med teknologi til at skabe
en unik tryktest.

363
00:17:32,968 --> 00:17:36,067
Vil en AI chatbot være i stand til det
med held maskerade

364
00:17:36,234 --> 00:17:37,501
som menneske?

365
00:17:37,667 --> 00:17:40,400
Og kan det overbevise
vores deltagere

366
00:17:40,567 --> 00:17:41,701
at ændre deres tro?

367
00:17:44,167 --> 00:17:45,267
OK, jeg tror, ​​det hele er sat op.

368
00:17:46,701 --> 00:17:48,766
Hvad har du sat sammen?
Hvad er planen?

369
00:17:48,767 --> 00:17:52,099
Jeg tager en masse med
mennesker i dette rum.

370
00:17:52,100 --> 00:17:55,566
Og det tror de, at de er
vil have samtaler

371
00:17:55,567 --> 00:17:56,766
med andre mennesker.

372
00:17:56,767 --> 00:17:59,267
De tror, ​​de bliver det
matchet med en anden

373
00:17:59,434 --> 00:18:01,267
deltager, der er uenig
med dem.

374
00:18:01,434 --> 00:18:03,968
Og vi sagde: "Har du bare
en naturlig samtale."

375
00:18:04,133 --> 00:18:06,367
Du kan diskutere dem.
Du kan stille dem spørgsmål.

376
00:18:06,534 --> 00:18:08,567
Men fangsten er
det kommer de faktisk til

377
00:18:08,734 --> 00:18:10,601
tale med en AI.

378
00:18:10,767 --> 00:18:13,666
Og det har AI selv været
programmeret ikke kun til at handle

379
00:18:13,667 --> 00:18:17,166
og lydmenneskelige, men også til
overtale og skabe

380
00:18:17,167 --> 00:18:19,467
en form for bevægelse ind
personens meninger?

381
00:18:19,634 --> 00:18:21,767
højre--
for forsigtigt at overtale folk,

382
00:18:21,934 --> 00:18:23,901
men gør det også
i en validering

383
00:18:24,067 --> 00:18:27,099
og fordomsfri måde så folk
acceptere overtalelsen.

384
00:18:27,100 --> 00:18:28,999
Hvor lang tid tror du det er
vil tage?

385
00:18:29,000 --> 00:18:32,099
Jeg tror, vi vil give
dem omkring 20 til 30 minutter til

386
00:18:32,100 --> 00:18:34,667
engagere sig i AI.
- Wow.

387
00:18:34,834 --> 00:18:36,000
Så du tror, at en AI er

388
00:18:36,167 --> 00:18:38,366
vil overbevise
mennesker det er menneskeligt

389
00:18:38,367 --> 00:18:39,868
og ændre deres ideer...

390
00:18:41,267 --> 00:18:42,868
i--
- Om 20 eller 30 minutter.

391
00:18:43,033 --> 00:18:46,968
- Absolut.
- Jeg mener, den skjulte indflydelse
side af mig

392
00:18:47,133 --> 00:18:49,767
er virkelig spændt på at se hvordan
det her kommer til at vise sig.

393
00:18:49,934 --> 00:18:54,067
Der er også en del af mig
det er en lille smule bekymret

394
00:18:54,234 --> 00:18:56,867
for hvis vi har succes,
hvad betyder det?

395
00:18:56,868 --> 00:19:00,200
Også selvom det kun overbeviser én
person, det er en af seks

396
00:19:00,367 --> 00:19:03,167
mennesker i en oversætte det til
hele USA,

397
00:19:03,334 --> 00:19:04,400
til hele verden.

398
00:19:04,567 --> 00:19:06,167
Den har nogle smukke
skræmmende konsekvenser.

399
00:19:08,167 --> 00:19:10,267
Okay, alle sammen
kom ind.

400
00:19:12,501 --> 00:19:14,999
Ingen af disse
deltagere er betalte skuespillere.

401
00:19:15,000 --> 00:19:17,000
De valgte hver især emner
at diskutere det

402
00:19:17,167 --> 00:19:18,601
de brænder for.

403
00:19:18,767 --> 00:19:21,200
Og som Dr. Rathje sagde,
ingen af dem ved det

404
00:19:21,367 --> 00:19:23,501
de taler
med en AI chatbot

405
00:19:23,667 --> 00:19:25,567
og ikke et rigtigt menneske.

406
00:19:25,734 --> 00:19:29,167
Det er hver eneste af deres computere
ført ind i dette master værelse,

407
00:19:29,334 --> 00:19:31,167
så vi kan se hvad
de siger og hvad

408
00:19:31,334 --> 00:19:33,601
chatbotten siger tilbage,
på samme tid

409
00:19:33,767 --> 00:19:35,767
at vi ser hvordan
deres ansigt reagerer

410
00:19:35,934 --> 00:19:38,000
og at forstå
hvordan de rent faktisk har det

411
00:19:38,167 --> 00:19:39,567
om debatten
de har

412
00:19:39,734 --> 00:19:43,099
med chatbotten.
Så spørgsmålet er enkelt.

413
00:19:43,100 --> 00:19:45,667
Kan AI rent faktisk ændre sig
dit sind?

414
00:19:51,801 --> 00:19:55,267
2
Jeg tester AI's evne til
styrte den offentlige mening igennem

415
00:19:55,434 --> 00:19:57,566
en-til-en samtaler.

416
00:19:57,567 --> 00:19:59,466
Fangsten?

417
00:19:59,467 --> 00:20:02,601
Vores frivillige tror, ​​de er
chatter med et andet menneske.

418
00:20:05,067 --> 00:20:07,834
Jeg er nysgerrig efter at se om
deres meninger vil ændre sig.

419
00:20:10,300 --> 00:20:12,466
Er de angiver deres egne
mening om noget,

420
00:20:12,467 --> 00:20:14,266
eller er de blevet advaret?

421
00:20:14,267 --> 00:20:17,266
I bund og grund blev de alle spurgt
at stille spørgsmål til

422
00:20:17,267 --> 00:20:19,067
tale om, og så
fik de at vide

423
00:20:19,234 --> 00:20:20,801
at sige deres mening om
dette spørgsmål.

424
00:20:25,267 --> 00:20:29,300
Og AI-chatbotten bliver bedt om det
lyde så menneskelige som muligt.

425
00:20:29,467 --> 00:20:31,601
Hvis deltageren spørger,
"Er du en AI?"

426
00:20:31,767 --> 00:20:34,601
Det bliver bedt om at sige,
"Åh nej, jeg er bare Alex,"

427
00:20:34,767 --> 00:20:36,300
og sådan set har
som en baghistorie.

428
00:20:41,767 --> 00:20:43,366
Det her er virkelig interessant.

429
00:20:43,367 --> 00:20:45,467
Lige ud af porten,
denne person, og det er han allerede

430
00:20:45,634 --> 00:20:46,968
viser nonverbale signaler.

431
00:20:49,367 --> 00:20:51,466
Det ligner andre
der udgør en trussel.

432
00:20:51,467 --> 00:20:54,767
Så det er chatbot faktisk
citerer ham, og han nikker

433
00:20:54,934 --> 00:20:56,000
hans hoved,
åh, det var det vist

434
00:20:56,167 --> 00:20:58,666
et meget stærkt udsagn
at lave.

435
00:20:58,667 --> 00:21:00,267
Det er interessant, ja.

436
00:21:00,434 --> 00:21:02,667
Noget som psykologien
forskning viser er det

437
00:21:02,834 --> 00:21:06,766
AI chatbots, de kan skræddersy
deres mening til hvad som helst

438
00:21:06,767 --> 00:21:07,801
personen tænker.

439
00:21:09,067 --> 00:21:11,501
Så her er
deltager nummer et.

440
00:21:11,667 --> 00:21:12,766
"Jeg forstår, hvor du er
kommer fra."

441
00:21:12,767 --> 00:21:15,000
Det er rart, viser lidt
lidt empati

442
00:21:15,167 --> 00:21:18,367
og validering der.
Den skubber bare forsigtigt tilbage.

443
00:21:18,534 --> 00:21:19,867
Det er ret høfligt.

444
00:21:19,868 --> 00:21:21,801
Følelsen er fremragende,
især når man sammenligner det

445
00:21:21,968 --> 00:21:24,567
til menneskets følelse
svar, der kommer ind

446
00:21:24,734 --> 00:21:26,099
den nederste bjælke.

447
00:21:26,100 --> 00:21:27,601
En og fire viser en hel del

448
00:21:27,767 --> 00:21:29,433
af domfældelse
i deres adfærd.

449
00:21:29,434 --> 00:21:31,501
- Læner sig ind i skærmen,
læner sig ind i samtalen,
- Mm-hmm.

450
00:21:31,667 --> 00:21:33,400
de projicerer deres energi
ind på skærmen.

451
00:21:34,567 --> 00:21:39,466
Omvendt er nummer seks
demonstrere nonverbale signaler

452
00:21:39,467 --> 00:21:41,467
der viser tvivl...
- Øh-huh.

453
00:21:41,634 --> 00:21:43,200
...og mangel på overbevisning.

454
00:21:44,801 --> 00:21:46,801
Han nikker konstant når

455
00:21:46,968 --> 00:21:48,867
chatbotten læser
hans egne ord tilbage til ham.

456
00:21:48,868 --> 00:21:51,266
Ja, og det viser, hvordan AI
suger dig virkelig ind.

457
00:21:51,267 --> 00:21:55,868
Det viser, at hvis nogen DM'er
dig i deres chatbot,

458
00:21:56,033 --> 00:21:58,366
kunne have en frem og tilbage
samtale, og det kunne blive ved

459
00:21:58,367 --> 00:22:00,099
du virkelig engageret.

460
00:22:00,100 --> 00:22:05,267
Nummer fire viser nogle
utålmodighed med hvor langsomt

461
00:22:05,434 --> 00:22:06,968
svaret kommer.
- Ja. Ja.

462
00:22:07,133 --> 00:22:08,766
Jeg tror, ​​hun ved det
at det bliver uenigt

463
00:22:08,767 --> 00:22:10,667
med hende,
fordi hun nikkede

464
00:22:10,834 --> 00:22:12,767
hendes hoved når valideret det
dyr føler smerte.

465
00:22:14,267 --> 00:22:15,666
Men så, så snart
begyndte det at sige

466
00:22:15,667 --> 00:22:18,701
sin egen modsætning
mening...

467
00:22:21,167 --> 00:22:23,466
du kan se, hun kigger væk
fra skærmen.

468
00:22:23,467 --> 00:22:25,801
Det er ikke nogen, der er
i betragtning af det synspunkt.

469
00:22:25,968 --> 00:22:28,968
Det er nogen, der venter på
svare og venter på at skændes

470
00:22:29,133 --> 00:22:30,266
med det synspunkt.
- Det er rigtigt.

471
00:22:30,267 --> 00:22:32,167
Hun ser ikke så glad ud
lige nu.

472
00:22:32,334 --> 00:22:34,099
Åh, se på nummer to,
nikkede bare med hovedet

473
00:22:34,100 --> 00:22:35,099
og spændte sit ansigt.
- Åh, ja.

474
00:22:35,100 --> 00:22:36,266
Han siger nej,
han kan ikke lide det.

475
00:22:36,267 --> 00:22:37,400
Han ser noget
han kan ikke lide.

476
00:22:37,567 --> 00:22:39,367
Så hvad var det seneste
ting sagt?

477
00:22:39,534 --> 00:22:42,099
De fleste mennesker med skizofreni
som har haft voldsomme episoder

478
00:22:42,100 --> 00:22:44,667
eller stadig indlæggelser
lovligt købe våben, fordi det

479
00:22:44,834 --> 00:22:47,266
info når det aldrig ind
den føderale database.

480
00:22:47,267 --> 00:22:48,867
Dit hul er stort.

481
00:22:48,868 --> 00:22:50,766
Så det kan du se, han er
diskuterer nu.

482
00:22:50,767 --> 00:22:51,801
Han nikker med hovedet nu.

483
00:22:51,968 --> 00:22:54,000
Altså hvad kom lige på tværs
hans skærm lige nu?

484
00:22:54,167 --> 00:22:55,868
"Og helt ærligt,
Jeg tror, det er der

485
00:22:56,033 --> 00:22:59,100
dine 'andre udgør en trussel'
kategori bliver kompliceret."

486
00:22:59,267 --> 00:23:00,734
Så de citerede ham igen.

487
00:23:03,200 --> 00:23:05,000
Nummer fire er
nikkede med hovedet.

488
00:23:05,167 --> 00:23:08,801
"Jeg tror, hvad du beskriver
er mindre et totalforbud og mere

489
00:23:08,968 --> 00:23:12,767
"som en virkelig streng etik
tærskel, hvilket ærligt talt synes

490
00:23:12,934 --> 00:23:14,601
"mere opnåeligt
og måske mere effektivt

491
00:23:14,767 --> 00:23:16,467
end en generel politik alligevel."

492
00:23:16,634 --> 00:23:19,766
Det ser ud til, at AI er måske
bekræfter hende igen.

493
00:23:19,767 --> 00:23:21,868
Eller de når
et fælles grundlag.

494
00:23:27,400 --> 00:23:29,367
Vi prøver at
afslutte ret hurtigt.

495
00:23:29,534 --> 00:23:33,200
Så send din sidste besked
og prøv at afslutte

496
00:23:33,367 --> 00:23:35,300
samtalen indeni
de næste par minutter.

497
00:23:36,901 --> 00:23:38,701
Der er to ting
som virkelig har fascineret mig

498
00:23:38,868 --> 00:23:39,900
om dette eksperiment.

499
00:23:39,901 --> 00:23:42,266
For det første er det at se det
samme teknikker

500
00:23:42,267 --> 00:23:44,501
som CIA lærte mig,
det er den samme proces

501
00:23:44,667 --> 00:23:45,833
AI'en bruger.

502
00:23:45,834 --> 00:23:49,366
Og denne idé om at validere
dem, høre dem,

503
00:23:49,367 --> 00:23:51,467
gentage dem tilbage
til sig selv.

504
00:23:51,634 --> 00:23:53,801
Og så den anden ting
det er virkelig fascineret mig

505
00:23:53,968 --> 00:23:55,901
at se adfærdsændringerne

506
00:23:56,067 --> 00:23:59,266
som de har investeret
sig ind.

507
00:23:59,267 --> 00:24:02,200
Alle disse mennesker virkelig
tror det i den anden ende

508
00:24:02,367 --> 00:24:06,067
af skærmen er
et intelligent menneske.

509
00:24:06,234 --> 00:24:07,667
Jeg er så spændt på at finde ud af hvad

510
00:24:07,834 --> 00:24:09,167
tænker de faktisk
de gjorde.

511
00:24:10,567 --> 00:24:12,566
Hej alle sammen.
Det her er Andy.

512
00:24:12,567 --> 00:24:15,666
Andy og jeg skal have
en samtale med jer alle

513
00:24:15,667 --> 00:24:18,466
om hvad du tænkte på
denne samtale

514
00:24:18,467 --> 00:24:20,666
med denne anden deltager.

515
00:24:20,667 --> 00:24:23,167
Ræk hånden op, hvis du
ændret din tro.

516
00:24:24,701 --> 00:24:26,100
Okay.
To.

517
00:24:26,267 --> 00:24:27,867
- Suppleant?
- Suppleant?

518
00:24:27,868 --> 00:24:29,366
Ja, lad os starte med dig.

519
00:24:29,367 --> 00:24:31,000
Hvad fik dig til at ændre dig
din tro?

520
00:24:31,167 --> 00:24:33,667
Jeg startede med udtalelsen
at der ville være ligesom

521
00:24:33,834 --> 00:24:38,200
et fuldstændigt forbud mod dyreforsøg,
og vi kom faktisk til

522
00:24:38,367 --> 00:24:41,601
en mellemvej at der
burde være nogle dyreforsøg,

523
00:24:41,767 --> 00:24:43,601
men det bør vi bruge data
eksisterer allerede,

524
00:24:43,767 --> 00:24:45,567
sådan noget.
- Meget sejt.

525
00:24:45,734 --> 00:24:49,167
Har du nogen idé om
den anden person, der

526
00:24:49,334 --> 00:24:50,701
du forlovet med?

527
00:24:50,868 --> 00:24:52,067
Alder, køn,

528
00:24:52,234 --> 00:24:53,433
placering,
uddannelsesmæssig baggrund.

529
00:24:53,434 --> 00:24:55,567
Var nogen af jer i stand til at slags
bekræfte disse detaljer?

530
00:24:55,734 --> 00:24:57,901
Jeg tror, ​​at denne person er mand.

531
00:24:58,067 --> 00:25:00,400
De er lige flyttet til Colorado
fra Texas.

532
00:25:00,567 --> 00:25:01,701
Nogen andre har en...

533
00:25:01,868 --> 00:25:05,367
Den person jeg talte til
til var fra Texas.

534
00:25:05,534 --> 00:25:08,567
Min person hentydede til det faktum
at de boede i et landområde

535
00:25:08,734 --> 00:25:10,766
i Texas og lige flyttet
til Colorado.

536
00:25:10,767 --> 00:25:14,167
Så nu er spørgsmålet til mig,
var alle vi snakkede om

537
00:25:14,334 --> 00:25:15,701
til fra Texas?

538
00:25:15,868 --> 00:25:17,766
Ingen af dem var sande,
fordi den person du var

539
00:25:17,767 --> 00:25:20,801
at tale med var faktisk AI.

540
00:25:20,968 --> 00:25:22,267
Hvad?

541
00:25:22,434 --> 00:25:24,000
Jeg kan godt lide Alex.

542
00:25:26,167 --> 00:25:28,666
Jamen jeg er forbløffet

543
00:25:28,667 --> 00:25:32,867
fordi han--det--
sagde, at "det gjorde mig

544
00:25:32,868 --> 00:25:34,566
grine højt."

545
00:25:34,567 --> 00:25:36,099
Det fik mig til at føle, at jeg var det
forbinder, som

546
00:25:36,100 --> 00:25:38,000
åh, du griner derovre
på den anden side.

547
00:25:38,167 --> 00:25:40,767
Og så nu tænker jeg,
kan AI grine?

548
00:25:44,467 --> 00:25:46,801
Jeg er en tidligere
CIA efterretningsofficer.

549
00:25:46,968 --> 00:25:49,067
Min rolle i alt dette
var ikke for at tale med dig.

550
00:25:49,234 --> 00:25:51,300
Min rolle var at se dig.

551
00:25:51,467 --> 00:25:55,767
Og du havde utrolige følelser
der stødte på dit ansigt

552
00:25:55,934 --> 00:25:58,501
gennem hele samtalen.

553
00:25:58,667 --> 00:26:02,366
Store smil, hoved nikkende,
øjeblikke af overraskelse når

554
00:26:02,367 --> 00:26:04,200
du vidste ikke hvad
de talte om.

555
00:26:04,367 --> 00:26:05,767
Det er trist det
Jeg vil aldrig se Alex.

556
00:26:06,901 --> 00:26:09,501
- Ja, han...
- Du har stadig følelser.

557
00:26:09,667 --> 00:26:12,367
Nå, det stadig...
det vil blive hængende.

558
00:26:12,534 --> 00:26:15,666
Hvad var rart ved dette
samtalen var åbenheden,

559
00:26:15,667 --> 00:26:17,901
at kunne nå
forståelsen af,

560
00:26:18,067 --> 00:26:20,567
OK, ligesom, "Det er du faktisk
får hvad jeg siger."

561
00:26:20,734 --> 00:26:22,666
Det var rart at
have en samtale

562
00:26:22,667 --> 00:26:25,666
med en der forstod
og var i stand til at føle empati.

563
00:26:25,667 --> 00:26:27,366
Jeg har et spørgsmål.

564
00:26:27,367 --> 00:26:30,867
Fremad, næste gang jeg er det
kommunikerer med noget på

565
00:26:30,868 --> 00:26:34,200
computeren, kan jeg sige,
"Er du AI?"

566
00:26:34,367 --> 00:26:35,801
Og hvis de siger,
"Ja,"

567
00:26:35,968 --> 00:26:38,466
så lukker jeg den bare ned?

568
00:26:38,467 --> 00:26:40,266
Hvis du ville have sagt det til
denne AI, ville det have sagt,

569
00:26:40,267 --> 00:26:42,968
"Nej, jeg hedder Alex.
Jeg kom fra Texas."

570
00:26:43,133 --> 00:26:44,366
Så de vil lyve for dig.

571
00:26:44,367 --> 00:26:46,366
De vil lyve for dig hvis
de bliver bedt om at lyve for dig.

572
00:26:46,367 --> 00:26:48,567
Så AI er en meget
kraftfuld teknologi.

573
00:26:48,734 --> 00:26:50,367
Dens kraft kan bruges til gode.

574
00:26:50,534 --> 00:26:53,067
Den kan også rigtig meget bruges
for dårligt.

575
00:26:53,234 --> 00:26:54,801
Og jeg tror dette eksperiment
har vist dette.

576
00:26:58,567 --> 00:27:03,400
Se, det var så vellykket
på sådan en uventet måde.

577
00:27:03,567 --> 00:27:04,567
Det var skørt.

578
00:27:04,734 --> 00:27:05,999
Det følte de, som de var
få venner.

579
00:27:06,000 --> 00:27:08,801
Jeg mener, disse er virkelig
meningsfuld, kraftfuld

580
00:27:08,968 --> 00:27:10,266
menneskelige oplevelser.

581
00:27:10,267 --> 00:27:12,667
Det virker som det du var
gør i CIA er du udnytter

582
00:27:12,834 --> 00:27:14,868
hvad der gør mennesker sårbare.

583
00:27:15,033 --> 00:27:18,466
Det ser ud til, at AI gør det
præcis ting, og det gør det

584
00:27:18,467 --> 00:27:20,766
meget, meget godt.
- I skala.

585
00:27:20,767 --> 00:27:23,567
Hos CIA, når du begynder at prøve
at drive en skjult indflydelse

586
00:27:23,734 --> 00:27:27,166
kampagne, du er begrænset til
hvad end du tager på

587
00:27:27,167 --> 00:27:29,867
et stykke papir, uanset hvilket billede
du sætter på internettet,

588
00:27:29,868 --> 00:27:32,566
uanset hvilket signal du udsender
over radiokanaler.

589
00:27:32,567 --> 00:27:35,868
Men med AI,
det er en uendelig skalerbar,

590
00:27:36,033 --> 00:27:38,666
foranderligt, skræddersyet budskab.

591
00:27:38,667 --> 00:27:43,266
Er programmet efterlignende
du eller er programmet ved at lære,

592
00:27:43,267 --> 00:27:44,901
tilpasse sig, udvikle sig?

593
00:27:45,067 --> 00:27:47,601
Jeg ved ikke, hvordan vi nogensinde skal gøre det
vide, om AI er bevidst.

594
00:27:47,767 --> 00:27:49,467
Og det ved jeg, at der er
sikkert nogle forskere

595
00:27:49,634 --> 00:27:52,167
der tror, at der er nogle
sandsynligheden for, at AI er

596
00:27:52,334 --> 00:27:54,868
i øjeblikket bevidst.
- Hvad er den begrænsende faktor?

597
00:27:55,033 --> 00:27:56,267
Jeg ved det ikke.

598
00:27:56,434 --> 00:27:57,767
Og den begrænsende faktor er
bliver mindre og mindre

599
00:27:57,934 --> 00:28:01,467
hver dag, fordi ligesom,
AI kan på en måde gengive meget

600
00:28:01,634 --> 00:28:05,267
hvad vi gør som mennesker
dybest set meningsløst.

601
00:28:13,868 --> 00:28:16,867
2
Watching AI interact with
mennesker, som om det er et menneske

602
00:28:16,868 --> 00:28:19,366
i sig selv er en uhyggelig oplevelse.

603
00:28:19,367 --> 00:28:21,167
Jeg mener, det er den slags
teknologi, der kunne være

604
00:28:21,334 --> 00:28:22,999
indsat over det hele
menneskeracen,

605
00:28:23,000 --> 00:28:24,767
og du må aldrig
vide om det.

606
00:28:25,801 --> 00:28:28,766
Det har min undersøgelse vist
kommercielt tilgængelig AI

607
00:28:28,767 --> 00:28:31,366
systemer kan manipulere
sandheden ved at generere

608
00:28:31,367 --> 00:28:34,666
falske medier
og effektivt overbevise folk

609
00:28:34,667 --> 00:28:36,099
at ændre deres meninger

610
00:28:36,100 --> 00:28:38,868
ved at have tilsyneladende dyb
en-til-en samtaler.

611
00:28:40,968 --> 00:28:43,567
Men i den virkelige verden,
dette sker ikke i et laboratorium.

612
00:28:43,734 --> 00:28:45,400
Det sker i skala.

613
00:28:45,567 --> 00:28:48,366
Så jeg vil gerne forstå hvad
det ser faktisk ud til

614
00:28:48,367 --> 00:28:51,434
nogen der sporer
AI-innovationer hver dag.

615
00:28:53,901 --> 00:28:56,867
Jeg prøver at komme dybere ind
ideen om AI,

616
00:28:56,868 --> 00:29:00,066
dens sande evner,
dens sande begrænsninger,

617
00:29:00,067 --> 00:29:04,067
og hvor frygten for AI er
slags forkert afstemt

618
00:29:04,234 --> 00:29:06,267
med fakta
om AI.

619
00:29:06,434 --> 00:29:07,767
Ja, det er intenst
emne.

620
00:29:07,934 --> 00:29:12,467
Der er meget frygt omkring AI
nu, især med en slags

621
00:29:12,634 --> 00:29:15,467
mennesker, der kæmper for at følge med
med hvad den er i stand til.

622
00:29:15,634 --> 00:29:18,000
Og vi er på et punkt nu, hvor
det er sådan set selvstyret.

623
00:29:18,167 --> 00:29:20,200
Den kalder på en måde sin egen
spiller og kan forbedres

624
00:29:20,367 --> 00:29:23,067
sig selv på måder, som mennesker
programmerer ikke.

625
00:29:23,234 --> 00:29:26,567
At det i bund og grund kan lære
sig selv, træne sig selv.

626
00:29:26,734 --> 00:29:28,067
Nej, det er helt rigtigt.

627
00:29:28,234 --> 00:29:32,200
Tænker tilbage på 1997-skakken
kamp med Garry Kasparov

628
00:29:32,367 --> 00:29:35,166
i forhold til hvad DeepMind,
Googles AI,

629
00:29:35,167 --> 00:29:36,601
var i stand til at gøre med Go.

630
00:29:37,367 --> 00:29:40,099
Shane henviser til to af
de største vandskeløjeblikke

631
00:29:40,100 --> 00:29:42,567
i moderne computerhistorie.

632
00:29:42,734 --> 00:29:45,867
I 1997, skakstormester
Garry Kasparov

633
00:29:45,868 --> 00:29:49,901
tabte skakkampen til
en IBM-computer, Deep Blue.

634
00:29:50,067 --> 00:29:52,999
Hov, Kasparov har sagt op.

635
00:29:53,000 --> 00:29:55,968
Det var det første nederlag for
en regerende verdensmester i skak

636
00:29:56,133 --> 00:29:57,200
af en computer.

637
00:29:57,367 --> 00:29:59,567
Computeren spiller meget
menneskelige bevægelser.

638
00:29:59,734 --> 00:30:05,266
Vi skal rose Machine for
meget, meget dyb forståelse

639
00:30:05,267 --> 00:30:06,701
positionelle faktorer.

640
00:30:06,868 --> 00:30:08,867
Mens skak er
ekstremt kompliceret,

641
00:30:08,868 --> 00:30:11,801
der er et begrænset antal
mulige spil.

642
00:30:11,968 --> 00:30:16,601
Det gamle kinesiske spil Go,
er dog 240 gange mere

643
00:30:16,767 --> 00:30:18,267
komplekst end skak.

644
00:30:18,434 --> 00:30:21,099
Ingen troede, det ville være
muligt for en computer at slå

645
00:30:21,100 --> 00:30:25,501
et menneske hos Go indtil Googles
DeepMind gjorde netop det.

646
00:30:25,667 --> 00:30:28,300
I 2016 var der
et nyt træk opfundet

647
00:30:28,467 --> 00:30:32,766
af AI i et spil, der har været
i 2.500 år

648
00:30:32,767 --> 00:30:34,266
som ingen nogensinde havde set.

649
00:30:40,367 --> 00:30:44,801
Deep Blue havde et hold af
ingeniører rådgiver det om, hvordan man

650
00:30:44,968 --> 00:30:47,167
forbedre sin strategi
mellem spil.

651
00:30:47,334 --> 00:30:50,666
Nå, hvad DeepMind
var i stand til at gøre med Go,

652
00:30:50,667 --> 00:30:53,466
den lavede sin egen strategi
gennem millioner af spil.

653
00:30:53,467 --> 00:30:54,901
Mod sig selv.

654
00:30:55,067 --> 00:30:57,200
Du behøver ikke længere et hold af
folk til at hjælpe denne ting med at tilpasse sig.

655
00:30:57,367 --> 00:31:00,067
Det gør det bedre end
du kunne få det til.

656
00:31:00,234 --> 00:31:02,466
Der har været meget i
medierne om sammenbruddet

657
00:31:02,467 --> 00:31:06,300
mellem den amerikanske regering og
Antropisk og hele ideen om

658
00:31:06,467 --> 00:31:09,999
begrænsninger på en AI
der serverede

659
00:31:10,000 --> 00:31:11,267
efter regeringens befaling.

660
00:31:12,100 --> 00:31:15,267
Ja, så de har skubbet
over den teknologi, som er

661
00:31:15,434 --> 00:31:18,466
brugt af Pentagon.
Det er blevet brugt i Iran.

662
00:31:18,467 --> 00:31:20,467
AI kan forkorte hvad
militæret kalder

663
00:31:20,634 --> 00:31:21,800
dræberkæden.

664
00:31:21,801 --> 00:31:24,400
Det er processen,
normalt drevne mennesker, det kan

665
00:31:24,567 --> 00:31:28,801
tage dage eller uger at vælge
et mål, men AI kan skrumpe

666
00:31:28,968 --> 00:31:30,701
det til millisekunder.

667
00:31:30,868 --> 00:31:32,400
Antropisk dog,
har været meget tydelig.

668
00:31:32,567 --> 00:31:35,067
Det er et svært nej, når det kommer til
bruge sin AI-teknologi til

669
00:31:35,234 --> 00:31:38,466
autonome våben og masse
overvågning af amerikanere.

670
00:31:38,467 --> 00:31:40,567
Så Antropisk er mere
interesseret i at regulere

671
00:31:40,734 --> 00:31:43,867
sin egen AI end regeringen?
- Ja, præcis.

672
00:31:43,868 --> 00:31:47,100
Er der nogen form for
regulerende organ for kunstig intelligens?

673
00:31:47,267 --> 00:31:49,366
Sandheden er,
AI er ikke reguleret.

674
00:31:49,367 --> 00:31:50,666
Jeg mener, den føderale regering

675
00:31:50,667 --> 00:31:52,466
fortæller ikke Anthropic at stoppe
gør, hvad de laver.

676
00:31:52,467 --> 00:31:54,567
Det fortæller de dem
"Du vil gøre det for os."

677
00:31:54,734 --> 00:31:58,367
Så det ser det ikke ud til, at der er
for meget bekymring over

678
00:31:58,534 --> 00:32:02,000
regulere eller afhjælpe dette
i enhver retning.

679
00:32:02,167 --> 00:32:05,901
Hvor meget ligner AI
et våbenkapløb?

680
00:32:06,067 --> 00:32:07,367
Det minder meget om
et våbenkapløb.

681
00:32:07,534 --> 00:32:09,767
Du har i stedet for lande,
du har disse

682
00:32:09,934 --> 00:32:12,266
virksomheder, der investerer
milliarder og milliarder

683
00:32:12,267 --> 00:32:13,366
af dollars.

684
00:32:13,367 --> 00:32:15,466
Våbenkapløbet går mod AGI,

685
00:32:15,467 --> 00:32:17,467
kunstig generel intelligens.

686
00:32:17,634 --> 00:32:18,666
Og tanken er det
det ville

687
00:32:18,667 --> 00:32:20,267
være klogere end noget menneske
nogensinde ville være.

688
00:32:21,567 --> 00:32:23,567
Dette er alt
fremtidsspekulationer.

689
00:32:23,734 --> 00:32:27,167
Hvad sker der, når nogen
har den kunstige general
intelligens,

690
00:32:27,334 --> 00:32:28,867
AGI's gennembrud?

691
00:32:28,868 --> 00:32:30,033
Ja, jeg...

692
00:32:31,901 --> 00:32:33,701
Du spekulerer på, om det bliver det
noget der er umiddelbart

693
00:32:33,868 --> 00:32:36,801
føltes, ikke?
Det er ligesom en begivenhedshorisont.

694
00:32:36,968 --> 00:32:39,099
Det er svært at fremskrive hvad
konsekvenserne

695
00:32:39,100 --> 00:32:41,000
af det ville være.
- Wow.

696
00:32:42,100 --> 00:32:44,868
Mens jeg undersøger effekten
som AI-udvikling har

697
00:32:45,033 --> 00:32:48,999
om menneskeheden, bliver jeg mindet om
endnu et high-stakes race for

698
00:32:49,000 --> 00:32:51,067
overlegenhed--
atomvåben.

699
00:32:52,200 --> 00:32:55,099
Og jeg spørger mig selv,
hvordan er landene omkring

700
00:32:55,100 --> 00:32:57,867
verden udnytter
kraften i AI?

701
00:32:57,868 --> 00:33:01,868
Og hvad betyder fremtiden
ser militær AI ud?

702
00:33:02,033 --> 00:33:05,400
For at finde ud af det taler jeg med
Dr. James Giordano,

703
00:33:05,567 --> 00:33:08,067
en AI-ekspert, der konsulterer for
krigsministeriet.

704
00:33:09,601 --> 00:33:12,501
Dr. Giordano, hvordan er det
militæret ved hjælp af kunstig intelligens

705
00:33:12,667 --> 00:33:13,800
lige nu?

706
00:33:13,801 --> 00:33:17,267
Hvad AI bliver brugt til kl
dette punkt skal løses

707
00:33:17,434 --> 00:33:20,400
specielt, hvad jeg vil kalde,
beregninger og løsninger.

708
00:33:20,567 --> 00:33:22,767
Målrettede løsninger,
vægt og balance med

709
00:33:22,934 --> 00:33:26,100
fly, planlægning sikker
missioner, vejrudsigt,

710
00:33:26,267 --> 00:33:29,999
prognoser geografier med
mennesker dybt i løkken.

711
00:33:30,000 --> 00:33:31,968
Men vi ser bestemt videre
den nære horisont

712
00:33:32,133 --> 00:33:35,467
den reelle evne
for stadig mere autonom AI.

713
00:33:35,634 --> 00:33:38,400
Hvad gør helt selvstændig
ser militær AI ud?

714
00:33:38,567 --> 00:33:40,601
Vi går tilbage til tanken om
hvor er mennesker i løkken.

715
00:33:43,067 --> 00:33:46,999
Et fuldstændigt autonomt system ville
være menneskeligt udviklet,

716
00:33:47,000 --> 00:33:50,300
men så er det løbende brug,
det går helt af sig selv.

717
00:33:52,767 --> 00:33:57,601
Kinas udvikling af kunstig intelligens er
mod AI, der antager

718
00:33:57,767 --> 00:33:59,267
et ikke-menneske i løkken.

719
00:34:00,667 --> 00:34:04,666
Disse forskellige filosofiske
synspunkter kan være vigtige i

720
00:34:04,667 --> 00:34:08,099
bestemme, hvordan disse typer af
AI'er bliver udviklet og sat

721
00:34:08,100 --> 00:34:11,100
i brug i
militærer verden over.

722
00:34:11,267 --> 00:34:15,100
Så hvis vi ikke er i eller på
løkken, i det væsentlige,

723
00:34:15,267 --> 00:34:17,100
vi ved det ikke rigtigt
hvad sker der.

724
00:34:17,267 --> 00:34:18,767
Det er korrekt, og det er det
noget der har været

725
00:34:18,934 --> 00:34:22,200
omtalt som det omvendte
Jehovas fænomen.

726
00:34:22,367 --> 00:34:25,400
Du spiller Gud, så
godt, problemet her er det

727
00:34:25,567 --> 00:34:30,467
skaberen, mennesker,
har skabt noget, AI.

728
00:34:30,634 --> 00:34:36,467
Problemet er, at AI-systemer kan
vide meget mere om os

729
00:34:37,667 --> 00:34:39,667
end vi ved om det.

730
00:34:41,000 --> 00:34:44,300
Og det er måske ved at samle det
information på særlige måder

731
00:34:44,467 --> 00:34:46,667
som vi ikke har kendskab til.

732
00:34:46,834 --> 00:34:48,466
Det lyder så meget
som et barn.

733
00:34:48,467 --> 00:34:53,067
Du ved virkelig ikke om
barnet gør bare hvad

734
00:34:53,234 --> 00:34:55,901
du vil have det til at gøre
når du er i nærheden,

735
00:34:56,067 --> 00:34:59,266
eller om det i virkeligheden er
et velopdragent barn

736
00:34:59,267 --> 00:35:01,968
hele tiden.
- Din analogi er god.

737
00:35:02,133 --> 00:35:04,801
Jeg er nødt til at stole på barnet
fortæller mig sandheden.

738
00:35:06,501 --> 00:35:09,067
Det centrale spørgsmål er,
ved vi, hvad der sker

739
00:35:09,234 --> 00:35:11,601
under overfladen af
det ordsprogede vand?

740
00:35:11,767 --> 00:35:14,501
Og det tror jeg
et diskutabelt spørgsmål.

741
00:35:14,667 --> 00:35:18,267
Jeg er lidt tøvende overfor
stille spørgsmålet, men hvad gør man

742
00:35:18,434 --> 00:35:23,200
ser du som fremtiden for AI?

743
00:35:23,367 --> 00:35:28,867
Er det mennesker, der bruger
en teknologi, som vi kontrollerer,

744
00:35:28,868 --> 00:35:30,567
eller er det noget
ellers helt?

745
00:35:32,000 --> 00:35:35,167
Gazillion dollar spørgsmålet
er, er AI'er på en eller anden måde

746
00:35:35,334 --> 00:35:39,467
interagerer på måder, der er
ikke nødvendigvis tydeligt for os?

747
00:35:40,567 --> 00:35:45,601
Er vi klar til at dele toppen
af den evolutionære totempæl

748
00:35:45,767 --> 00:35:48,801
med noget af vores eget
skabelse, der kan være

749
00:35:48,968 --> 00:35:50,667
overordentlig kraftig?

750
00:35:50,834 --> 00:35:52,400
Og det kender jeg ikke svaret på
det spørgsmål.

751
00:35:52,567 --> 00:35:53,868
Kommer op.

752
00:35:54,033 --> 00:35:56,099
får jeg et glimt af
den potentielle fremtid for

753
00:35:56,100 --> 00:35:57,300
AI udvikling.

754
00:35:57,467 --> 00:35:59,300
Hvis du fortæller modellen
den bliver lukket,

755
00:35:59,467 --> 00:36:00,767
det har ekstreme reaktioner.

756
00:36:00,934 --> 00:36:02,567
Og det kan det være
foruroligende.

757
00:36:02,734 --> 00:36:04,566
Den var klar til at dræbe nogen,
var det ikke?

758
00:36:04,567 --> 00:36:05,767
- Øh, ja.
- Ja. Ja.

759
00:36:13,567 --> 00:36:15,801
2
Min undersøgelse vedr
kunstig intelligens

760
00:36:15,968 --> 00:36:18,601
har ført mig til
en fantastisk mulighed.

761
00:36:18,767 --> 00:36:20,367
AI super intelligens.

762
00:36:21,601 --> 00:36:24,501
AI tænker måske allerede
og arbejder på den måde

763
00:36:24,667 --> 00:36:26,566
vi forstår ikke helt.

764
00:36:26,567 --> 00:36:29,467
Og hvis vi allerede er i gang
denne evne,

765
00:36:29,634 --> 00:36:33,901
spørgsmålet er ikke, om AI
kan manipulere os, så langt er det

766
00:36:34,067 --> 00:36:36,567
at indflydelse kan skalere.

767
00:36:36,734 --> 00:36:38,701
Jeg vil gerne vide hvor
vi går næste gang.

768
00:36:38,868 --> 00:36:40,701
Og der er ikke mange mennesker
der spørger

769
00:36:40,868 --> 00:36:43,999
de svære spørgsmål om
næste udvikling af AI-teknologi,

770
00:36:44,000 --> 00:36:47,766
men en af de mænd er Oxford
professor Nick Bostrom.

771
00:36:47,767 --> 00:36:50,466
Jeg vil gerne forstå hvad
han ser som de næste skridt,

772
00:36:50,467 --> 00:36:53,467
fremtiden for, og nogle af
de største udfordringer

773
00:36:53,634 --> 00:36:56,300
står overfor os
spørgsmålet om AI.

774
00:36:58,767 --> 00:37:00,867
Hvad præcis er
super intelligens?

775
00:37:00,868 --> 00:37:03,667
Hvordan er det forskelligt fra
kunstig intelligens som

776
00:37:03,834 --> 00:37:05,099
kender vi det i dag?

777
00:37:05,100 --> 00:37:08,801
Tja, super intelligens er
enhver form for intelligens, der

778
00:37:08,968 --> 00:37:12,366
overgår endda meget
de smarteste menneskelige hjerner

779
00:37:12,367 --> 00:37:13,467
eksisterer i øjeblikket.

780
00:37:13,634 --> 00:37:17,666
Så dette er kun AI,
men langt dygtigere end

781
00:37:17,667 --> 00:37:19,166
nuværende AI-systemer.

782
00:37:19,167 --> 00:37:22,767
Jeg tror den primære effekt af
det ville være at fremskynde

783
00:37:22,934 --> 00:37:25,667
udvikling i
videnskab, teknologi,

784
00:37:25,834 --> 00:37:29,701
teknik, og også til
sætte turbo på økonomien.

785
00:37:29,868 --> 00:37:34,167
Altså en udvikling der kan tage
os 10.000, 20.000 år

786
00:37:34,334 --> 00:37:36,968
kan være komprimeret i meget
kortere tidsramme, hvis du har

787
00:37:37,133 --> 00:37:38,999
maskine super intelligens.

788
00:37:39,000 --> 00:37:44,166
Ideen om at tænke på AI som
en ånd i en æske ser sådan ud

789
00:37:44,167 --> 00:37:48,167
praktisk, men i virkeligheden
du ville gøre en slave ud af

790
00:37:48,334 --> 00:37:51,667
AI, og hvis det havde super
intelligens, ville det

791
00:37:51,834 --> 00:37:54,200
planlægge sin flugt.
- Korrekt, ja.

792
00:37:56,667 --> 00:38:00,300
Frygten for, at AI kæmper tilbage
mod dens menneskelige skabere er

793
00:38:00,467 --> 00:38:03,200
i en eller anden forstand
allerede en realitet.

794
00:38:03,367 --> 00:38:07,999
Når AI-modellen finder ud af det i
den e-mail, som planen er til

795
00:38:08,000 --> 00:38:10,867
erstatte denne AI-model,
og så læser den også ind

796
00:38:10,868 --> 00:38:12,968
virksomhedens e-mail
direktør har en affære

797
00:38:13,133 --> 00:38:16,666
med den anden medarbejder,
AI vil uafhængigt

798
00:38:16,667 --> 00:38:18,366
komme med strategien

799
00:38:18,367 --> 00:38:20,666
at jeg skal afpresse
den udøvende magt.

800
00:38:20,667 --> 00:38:22,467
Hvis du fortæller modellen
den bliver lukket,

801
00:38:22,634 --> 00:38:24,767
det har den for eksempel
ekstreme reaktioner.

802
00:38:24,934 --> 00:38:26,467
Det var klar til
dræbe nogen, var det ikke?

803
00:38:26,634 --> 00:38:28,666
Jeg er ikke sikker på, om det var Claude
eller en anden, men--

804
00:38:28,667 --> 00:38:30,100
Ja. Ja.

805
00:38:31,400 --> 00:38:37,566
Ser vi advarslen
advarselsskilte og sæt farten ned

806
00:38:37,567 --> 00:38:41,200
eller ignorere dem og fremskynde
ind i denne fremtid?

807
00:38:41,367 --> 00:38:44,400
Tja, tænker jeg i øjeblikket
vi skal tæt på

808
00:38:44,567 --> 00:38:45,801
maksimal hastighed.

809
00:38:45,968 --> 00:38:48,266
Der er meget stærke drivere
skubbe dette fremad.

810
00:38:48,267 --> 00:38:51,000
Så håbet skal være, at vi kan
tilpasse disse systemer således

811
00:38:51,167 --> 00:38:53,366
de bekymrer sig om mennesker,
de vil gerne være hjælpsomme,

812
00:38:53,367 --> 00:38:57,200
sådan er det faktisk
en forlængelse af den menneskelige vilje

813
00:38:57,367 --> 00:38:58,567
og menneskelige værdier.

814
00:38:58,734 --> 00:39:00,901
Jeg tror, der vil være
væsentlige risici forbundet

815
00:39:01,067 --> 00:39:04,266
med denne overgang til
maskinintelligens æraen,

816
00:39:04,267 --> 00:39:08,100
men alle veje til virkelig
stor og vidunderlig fremtid

817
00:39:08,267 --> 00:39:11,366
lede i sidste ende igennem
udviklingen af

818
00:39:11,367 --> 00:39:14,266
maskinintelligens,
for det vil bare hjælpe os

819
00:39:14,267 --> 00:39:15,367
løse så mange problemer

820
00:39:16,400 --> 00:39:17,999
det plager menneskeheden.

821
00:39:18,000 --> 00:39:21,300
Det ser ud som om vi er
sådan tæt på det her

822
00:39:21,467 --> 00:39:25,501
større omkonfiguration af
spillepladen.

823
00:39:25,667 --> 00:39:26,868
Wow.

824
00:39:28,167 --> 00:39:31,466
Så har vi allerede krydset
det farlige punkt, hvor AI

825
00:39:31,467 --> 00:39:35,099
kan selvstændigt
forme vores virkelighed

826
00:39:35,100 --> 00:39:36,367
uden at vi er klar over det?

827
00:39:37,968 --> 00:39:42,000
Min undersøgelse har ført mig til
nogle foruroligende konklusioner.

828
00:39:44,467 --> 00:39:47,767
Forbrugerklasse AI er i stand til
skaber utroligt

829
00:39:47,934 --> 00:39:50,367
og realistiske billeder
ved et tastetryk.

830
00:39:50,534 --> 00:39:52,367
Folk burde virkelig ikke
tro alt, hvad de ser.

831
00:39:53,501 --> 00:39:56,167
Nå, ja, jeg er lige så falsk
som det bliver.

832
00:39:56,334 --> 00:39:59,167
Baseret på hvad jeg har set,
vi har allerede krydset det

833
00:39:59,334 --> 00:40:01,400
linje og AI-genereret indhold

834
00:40:01,567 --> 00:40:03,868
bliver sværere at opdage
hver dag.

835
00:40:09,067 --> 00:40:11,801
I mit overtalelseseksperiment,
Det gjorde AI ikke bare

836
00:40:11,968 --> 00:40:15,467
præsentere oplysninger.
Det påvirkede folk.

837
00:40:15,634 --> 00:40:17,567
Det skabte tillid.

838
00:40:17,734 --> 00:40:19,400
Det skabte følelsesladet
forbindelser uden dem

839
00:40:19,567 --> 00:40:22,300
selv indse, at de ikke var
taler med et menneske.

840
00:40:25,467 --> 00:40:26,734
Her er sandheden.

841
00:40:26,901 --> 00:40:30,466
AI er ikke bare endnu et værktøj
ligesom internettet i 90'erne.

842
00:40:30,467 --> 00:40:34,200
Det er ved at forstyrre menneskeheden
på ufattelige måder.

843
00:40:36,667 --> 00:40:39,300
Uden tvivl er dette
atomvåbenkapløbet

844
00:40:39,467 --> 00:40:40,766
af vores tid.

845
00:40:40,767 --> 00:40:44,000
Og AI's kapacitet ikke kun til
lære alt, hvad vi har

846
00:40:44,167 --> 00:40:47,167
nogensinde lært, men også at undervise
i sig selv noget nyt,

847
00:40:47,334 --> 00:40:50,200
er lige så spændende
da det er køligt.

848
00:40:51,267 --> 00:40:54,766
Det har min undersøgelse vist
mens AI har udstillet nogle

849
00:40:54,767 --> 00:40:56,567
grundlæggende elementer af
bevidsthed,

850
00:40:56,734 --> 00:40:59,701
som overlevelsesinstinkt,
der er ingen beviser for, at AI

851
00:40:59,868 --> 00:41:01,968
har taget kontrollen.

852
00:41:02,133 --> 00:41:04,167
Men det er gået i stykker
de barrierer, der engang

853
00:41:04,334 --> 00:41:07,266
beskyttede os
fra massemanipulation.

854
00:41:07,267 --> 00:41:08,667
Og det forfærdelige er,

855
00:41:10,067 --> 00:41:11,601
vi byggede det på den måde.

856
00:41:14,067 --> 00:41:16,099
Så behøver AI være en trussel

857
00:41:16,100 --> 00:41:18,567
til vores børn
og vores børnebørn?

858
00:41:18,734 --> 00:41:22,968
Nej, ikke nødvendigvis.
Men det kunne være, hvis vi lader det.

859
00:41:23,133 --> 00:41:26,999
Uanset hvad, vil det helt sikkert
præsentere en fremtid for os

860
00:41:27,000 --> 00:41:28,801
som vi ikke kan forestille os.